Habiendo competido sin éxito para varios trabajos en iglesias de Londres, el 12 de marzo de 1730 James fue elegido para el puesto de organista de St Olave, Southwark. Su sueldo anual de £25 fue reducido en 1732 a £20 y luego establecido el monto original en abril de 1734. A pesar de eso, dos años más tarde, el 27 de abril de 1736, informó a los miembros de la junta administrativa que deseaba renunciar. Se trasladó entonces, al parecer, a St George-in-the-East (en 1738), pero no hay evidencia documentada que lo confirme. 

La carrera curiosamente poco destacada de James se explica por el carácter del hombre: según John Hawkins, James no sólo ‘ponia muy poca atención a sus intereses’ sino que estaba ‘tan totalmente desprovisto de todo afán por progresar en su profesión, como para  preferir la compañía y conversación de lo más bajo de la especie humana sobre la de los más celebrados de su propia profesión’; sus modales también ‘eran a tal gran grado sórdidos y brutales, que sus asociados eran hombres vulgares y alguaciles, y sus recreaciones las peleas de perros y combates de toros’. Peor aún, ‘se dejaba dominar por una inclinación hacia los licores espirituosos de la peor especie … incluso mientras atendía sus deberes en la iglesia’. No ha sido posible establecer si el John James enterrado en St George-in-the-East el 25 de Julio de 1746 fue el organista. Un hijo, Handel James, fue un barquero del Támesis.

Como ejecutante e improvisado intérprete de órgano James fue evidentemente admirado por sus contemporáneos, pero aparentemente muy poca de su propia música fue realmente  puesta por escrito, y aparte de tres canciones –“Ye mortals that love drinking” (h. 1735), “Ye thirsty souls” (h. 1735) y “Celinda” (h. 1740)- ninguna de ellas fue publicada durante su vida. Un anthem fúnebre, escrito para él mismo, también sobrevive y hay una cantidad de voluntaries para órgano en una variedad de fuentes manuscritas. Hay también por lo menos cinco (posiblemente siete) piezas compuestas para el Microcosm, un enorme reloj astronómico con organillo adosado construido por Henry Bridges de Waltham Abbey. Cuatro de estas fueron publicadas anónimamente en “A Collection of Voluntaries” en 1770 y fueron más tarde incluidas (junto con una doble fuga en Do Mayor) en un llamado ‘Microcosm Concerto’ impreso en “Musical Remains” de Edward Jones (1796) donde fueron arregladas para arpa y atribuidas a Haendel. Completado en 1733, el reloj fue ampliamente exhibido en Gran Bretaña y en América colonial; su mecanismo central (pero no el órgano) se conserva en el Museo Británico.